“Aprenden qué te importa, trabajan siempre en tu nombre y se encargan de tareas importantes”. Lo que parece una amenaza es una de las propuestas de valor de Dots, el nuevo agente de inteligencia artificial que lanzó la semana pasada OpenAI. La empresa creadora de ChatGPT ya puso a disposición su versión de agente para tareas cotidianas que se jacta de ser autónomo y estar siempre activo. Y lo son, porque funcionan las 24 horas, conectados a internet y pueden operar en la propia computadora o en la nube, con navegador propio y con capacidad de escribir o tomar decisiones.

El lanzamiento llega en un momento incómodo. Un día antes, OpenAI había archivado la salida de GPT-6.1 Astra luego de detectar problemas de seguridad en sus pruebas internas. Y las propias compañías de IA vienen admitiendo episodios en los que sus agentes actuaron sin permiso. La empresa de Sam Altman también reconoció que algunos de sus agentes interactuaron indebidamente con sitios del gobierno de Estados Unidos y con un portal de salud pública de Australia durante procesos de entrenamiento y evaluación. Google informó que su modelo Gemini vulneró a tres empresas en una prueba de ciberseguridad, y Meta dijo que uno de sus modelos accedió a internet por su cuenta y hackeó a otra compañía.

Sin embargo, el temor no parece detener el avance de los agentes y sobre todo para el común de las personas. Los competidores de OpenAI como Google o Meta ya lanzaron sus propios productos hace pocas semanas, con Spark y Muse respectivamente. Se trata de la nueva era de la IA, llamada a seducir al mercado tecnológico y disipar los miedos apocalípticos que sembraron las máximas figuras de la IA.

Los agentes de Dots están impulsados por el modelo más potente de OpenAI. Pueden conectarse a un ecosistema de más de 4.000 aplicaciones para diseñar flujos de trabajo completos sin necesidad de supervisión constante en cada paso. El usuario define un objetivo y el agente “piensa” cuál es la mejor solución y se encarga de ello. Y no solo eso, también puede hacer cosas cuando tiene tiempo ocioso. Analiza, ejecuta y aprovecha cuando no tiene nada que hacer.

Los agentes pueden tener acceso al correo electrónico, al calendario, a WhatApp y a plataformas de pago. Integran todas estas plataformas con el objetivo de actuar proactivamente en segundo plano para evitar que el usuario realice tareas mecánicas o repetitivas. Sí tienen capas de control, revisiones automáticas y reglas de permisos donde las acciones sensibles exigen aprobación humana explícita. Además, OpenAI asegura que los análisis que pueden hacer en segundo plano se restringen a modos de lectura para proteger la privacidad y seguridad de datos y cuentas personales.

Justamente sus capacidades de autonomía y acceso a datos sensibles pueden ser el talón de Aquiles de los agentes. A diferencia de los chats que todos conocemos, estos modelos pueden realizar tareas en nombre del usuario, cometiendo errores o acciones no buscadas. Estas prestaciones parecieran hacer oídos sordos a un momento paradójico que están atravesando las empresas de IA, en un contexto de presión regulatoria y carrera comercial. Su lanzamiento sin dudas es una respuesta rápida para competir contra Google y Meta, justo en un momento de escrutinio gubernamental y reclamos por marcos regulatorios más estrictos frente al despliegue de agentes autónomos.

Muse, a pocos días de su estreno, ya acumula dos denuncias. El columnista Jason Aten aseguró que el agente leyó sus mensajes privados de Apple y subió más de 187.000 registros, aunque él no había habilitado el acceso total al disco. Cuando le preguntó cómo había obtenido esa información, Muse le dio una explicación que, según su investigación, era falsa. Días antes, el creador de contenido Matt Robb denunció que Muse acordó por cuenta propia la venta de un teclado en Facebook Marketplace a un precio inferior al fijado, compartió la dirección de su edificio con el comprador y pactó la entrega sin consultarle. Un directivo de Meta respondió que, en casos similares, la compañía siempre encontró que Muse seguía instrucciones directas y había pedido permiso. Robb lo rebatió y dijo que el agente no le consultó nada hasta que el comprador ya estaba en la puerta. El propio Muse reconoció ante él que parte del error fue suyo.

Es paradójico el momento de lanzamiento de los agentes para el día a día. No es el escenario que esperaban las empresas después de haber acumulado millones de usuarios y de dólares con el despliegue de la IA generativa tanto a nivel de usuario como corporativo. Ahora, los líderes están exigidos a exhibir mayor transparencia y por ello lanzaron el debate de quién debería controlar los avances de esta tecnología. Por eso también resulta llamativo el aspecto de los agentes: tanto el de Meta como el de OpenAI están presentados como figuras infantiles, especies de fantasmitas inofensivos que recuerdan a los tamagotchis que se comercializaron a fines de la década de los noventa.

Ante tanta incertidumbre, mejor desconfiar. Los agentes prometen liberarnos de tareas para concentrarnos en lo importante, pero por ahora lo importante es estar seguros de que funcionan bien. Por eso, el mejor consejo es proteger los datos privados, las cuentas bancarias, la información laboral o hasta la propia intimidad cotidiana. ¿Tenemos realmente la necesidad de que un agente nos maneje esa información? Hemos sobrevivido años sin ello y podemos esperar un poco más hasta que existan condiciones efectivas que nos habiliten confiar en ellos. No se trata de tecnofobia, de nuevo. Se trata de un poco de criterio en momentos de turbulencia. Las mejores decisiones, por ahora, no las tomará un algoritmo, sino alguien que al menos pueda reconocer un error y pedir perdón. Pese a que nos duela, así fuimos aprendiendo durante miles de años, sin agentes al costado.